<html>
 <head>
  <meta charset="UTF-8">
 </head>
 <body>
  <h1 data-lake-id="3c4e0a25" id="3c4e0a25"><span data-lake-id="ua1a05267" id="ua1a05267">典型回答</span></h1>
  <p data-lake-id="ubceadffb" id="ubceadffb"><span data-lake-id="u9cb8e740" id="u9cb8e740">​</span><br></p>
  <p data-lake-id="ucc4aa68b" id="ucc4aa68b"><span data-lake-id="u55da72aa" id="u55da72aa">这是一个比较典型的海量数据处理的问题，在优先内存情况下进行数据排序、判断是否存在等。</span></p>
  <p data-lake-id="uaed8fc5a" id="uaed8fc5a"><span data-lake-id="u9d97636a" id="u9d97636a">​</span><br></p>
  <p data-lake-id="u6c8e261e" id="u6c8e261e"><span data-lake-id="u088a1be9" id="u088a1be9">主要考察面试者对大数据量计算的经验和思考方式。同时也考察面试者是否有对一些数据库、数据处理中间件原理有过深入的了解。</span></p>
  <p data-lake-id="u5c135946" id="u5c135946"><span data-lake-id="u66645a35" id="u66645a35">​</span><br></p>
  <p data-lake-id="u3bc0a711" id="u3bc0a711"><span data-lake-id="ud24938dc" id="ud24938dc">一般来说有以下几个方案：</span></p>
  <p data-lake-id="ud55c0966" id="ud55c0966"><br></p>
  <h3 data-lake-id="v8uNe" id="v8uNe"><span data-lake-id="u65815008" id="u65815008">方案一（内存不够）</span></h3>
  <p data-lake-id="ueea6fa36" id="ueea6fa36"><span data-lake-id="ucf45d818" id="ucf45d818">​</span><br></p>
  <p data-lake-id="u189ab60a" id="u189ab60a"><span data-lake-id="uce433b49" id="uce433b49">使用Java的list、hashSet提供的方法：</span><code data-lake-id="u11bc4fcb" id="u11bc4fcb"><span data-lake-id="u5bf17efc" id="u5bf17efc">list.contains()</span></code><span data-lake-id="u8f2bd0e7" id="u8f2bd0e7"> 、</span><code data-lake-id="u4d140da1" id="u4d140da1"><span data-lake-id="u283fb6b3" id="u283fb6b3">set.contains()</span></code></p>
  <p data-lake-id="u6cb6c26b" id="u6cb6c26b"><br></p>
  <p data-lake-id="ua327f10a" id="ua327f10a"><span data-lake-id="u8a546b86" id="u8a546b86">时间复杂度分析：</span></p>
  <p data-lake-id="u433c5025" id="u433c5025"><br></p>
  <ol list="ub3e13926">
   <li fid="ub25f3cea" data-lake-id="u54d75bfd" id="u54d75bfd"><span data-lake-id="u0278e011" id="u0278e011">list的contains方法底层是通过遍历整个list，挨个元素进行比对，找出期望值，其时间复杂度为O(n)</span></li>
   <li fid="ub25f3cea" data-lake-id="ub19ba232" id="ub19ba232"><span data-lake-id="u88adb0ac" id="u88adb0ac">hashSet底层本质是个hashMap，在进行add时，将值存入hashMap的key中，contains时对值进行hash后查找，其时间复杂度为O(1)</span></li>
  </ol>
  <p data-lake-id="ua307ec9e" id="ua307ec9e"><br></p>
  <p data-lake-id="ua9f1e8fa" id="ua9f1e8fa"><span data-lake-id="u6b979cc7" id="u6b979cc7">内存空间占用分析：</span></p>
  <p data-lake-id="ubaa58b25" id="ubaa58b25"><br></p>
  <ol list="u813d061f">
   <li fid="u7fb0517d" data-lake-id="u0f111f7c" id="u0f111f7c"><span data-lake-id="u7ccdc067" id="u7ccdc067">整数范围在Integer.MAX_VALUE之内，占4个字节</span></li>
   <li fid="u7fb0517d" data-lake-id="uff84677d" id="uff84677d"><span data-lake-id="u3785e633" id="u3785e633">list和set都要存储所有元素</span></li>
   <li fid="u7fb0517d" data-lake-id="ube86c98d" id="ube86c98d"><span data-lake-id="u1de64cb7" id="u1de64cb7">list的空间计算：100,000,000（整数数量） × 4（字节 / 整数） = 400,000,000（字节）</span></li>
  </ol>
  <p data-lake-id="uf5c11ba7" id="uf5c11ba7"><br></p>
  <blockquote data-lake-id="u991f6bad" id="u991f6bad">
   <p data-lake-id="u238e678d" id="u238e678d"><span data-lake-id="u02bb0aac" id="u02bb0aac">需要注意的是，这只是粗略的估计。实际的内存占用可能会受到 Java 虚拟机的优化和内存管理策略的影响。此外，还要考虑 List 对象本身的内存开销，以及其他可能的因素（如对象引用、空间对齐等）对内存占用的影响。因此，实际内存占用可能会略高于这个估算值。</span></p>
  </blockquote>
  <p data-lake-id="u198ca888" id="u198ca888"><br></p>
  <p data-lake-id="u0338de79" id="u0338de79"><span data-lake-id="ufb579abb" id="ufb579abb">hashSet的空间计算：100,000,000（整数数量） × 8（字节 / 整数） = 800,000,000（字节）<br><br></span></p>
  <p data-lake-id="u375e9a66" id="u375e9a66"><span data-lake-id="u5f17fcd8" id="u5f17fcd8">由于 hashSet 使用了hashMap数据结构，还需要考虑额外的内存开销用于存储散列桶、链表或红黑树等信息。这个开销通常是每个元素 3~4 倍左右，取决于具体实现和负载因子等因素。 假设每个元素的额外开销为 2 倍，那么每个整数占用的内存空间为：4 字节 × 2 = 8 字节。</span></p>
  <p data-lake-id="u8f728b88" id="u8f728b88"><br></p>
  <p data-lake-id="ud8a51e10" id="ud8a51e10"><span data-lake-id="uf2f1a3b7" id="uf2f1a3b7">显然时间复杂度只有hashSet能胜任，对于内存空间早已超出给定的100M限制。</span></p>
  <p data-lake-id="ue6e8f8b8" id="ue6e8f8b8"><br></p>
  <h3 data-lake-id="awvTT" id="awvTT"><span data-lake-id="u4d8eac8c" id="u4d8eac8c">方案2（可行）</span></h3>
  <p data-lake-id="u87adc998" id="u87adc998"><span data-lake-id="u0e0379e9" id="u0e0379e9"><br></span><strong><span data-lake-id="u33f1ff92" id="u33f1ff92">使用bitmap算法降低内存空间，且时间复杂度为O(1)</span></strong><span data-lake-id="ue7ab80ad" id="ue7ab80ad"><br><br></span></p>
  <p data-lake-id="uf360bd6c" id="uf360bd6c"><br></p>
  <p data-lake-id="u63a96442" id="u63a96442"><code data-lake-id="u7c5ad3c2" id="u7c5ad3c2"><span data-lake-id="u90bc1c87" id="u90bc1c87">java.util.BitSet</span></code><span data-lake-id="u71b5bf47" id="u71b5bf47">是java中bitmap算法的实现，可以初始化一个2亿的BitSet，并把1到2亿通过</span><code data-lake-id="uc2309e48" id="uc2309e48"><span data-lake-id="u52279487" id="u52279487">bitSet.set()</span></code><span data-lake-id="u25b54e40" id="u25b54e40">方法设置进去，并通过</span><code data-lake-id="u9d487d7c" id="u9d487d7c"><span data-lake-id="u1777c93b" id="u1777c93b">bitSet.get()</span></code><span data-lake-id="u2b1c38d3" id="u2b1c38d3">方法判断期望值是否存在。</span></p>
  <p data-lake-id="ue7699270" id="ue7699270"><span data-lake-id="u3912cec7" id="u3912cec7"><br></span><span data-lake-id="u9634e6ad" id="u9634e6ad">内存空间占用分析：2,0000,0000（位） ÷ 8（位 / 字节） ÷ 1024（字节 / KB） ÷ 1024（KB/MB） ≈ 23.84 MB</span></p>
  <p data-lake-id="u6292148b" id="u6292148b"><br></p>
  <p data-lake-id="u543cc7ad" id="u543cc7ad"><span data-lake-id="u21db260e" id="u21db260e">显然bitmap在时间复杂度和空间占用上都完全满足需求。</span></p>
  <p data-lake-id="uf9718996" id="uf9718996"><br></p>
  <h2 data-lake-id="b3a8e5e2" id="b3a8e5e2"><span data-lake-id="u7de7064c" id="u7de7064c">扩展知识</span></h2>
  <p data-lake-id="u321e4fe1" id="u321e4fe1"><br></p>
  <p data-lake-id="u1137e146" id="u1137e146"><span data-lake-id="ubd29d6c7" id="ubd29d6c7">上述方案2中，存在一个问题：我们要初始化2个亿的bit数组去承载1个亿的数据需求，有点高射炮打蚊子的感觉。<br></span><span data-lake-id="ua85fcbe9" id="ua85fcbe9">工作中我们并不能百分之百确定一个长期运营的产品用户产生的数据量有多大，同时业务需求也不会只是在海量数据里找出一个值那么简单。通常会有如下几个场景：</span></p>
  <p data-lake-id="udd3c8d46" id="udd3c8d46"><br></p>
  <ol list="ud30b7b98">
   <li fid="u18b58daa" data-lake-id="u495774c6" id="u495774c6"><span data-lake-id="uf772d2e1" id="uf772d2e1">用户画像系统：用户行为数据、基础数据等信息散落在不同数据库中（ES、MySQL、Doris等）。去不同数据库中查数据，然后通过long类型的uid灌入bitMap，求交集、并集、差集，找出满足复杂查询条件的用户。</span></li>
   <li fid="u18b58daa" data-lake-id="u6bec02fd" id="u6bec02fd"><span data-lake-id="u14592b52" id="u14592b52">推荐系统中，精准记录某个用户是否已读。为每个用户分配一个bitMap，将已读的文章id放入bitMap中，已读过不再进行推荐。</span></li>
  </ol>
  <p data-lake-id="u15357c95" id="u15357c95"><br></p>
  <p data-lake-id="ud540f9d1" id="ud540f9d1"><span data-lake-id="u02f31384" id="u02f31384">上面的3个业务场景中，</span><strong><span data-lake-id="u639dcf54" id="u639dcf54">在使用bitMap除了要初始化一个较大的数组外，还存在一个致命的硬伤：由于id为稀疏整数，会浪费内存空间，效率非常低。</span></strong></p>
  <p data-lake-id="u8e3497c4" id="u8e3497c4"><span data-lake-id="ufde6a3fa" id="ufde6a3fa">​</span><br></p>
  <blockquote data-lake-id="ue6b9ebe3" id="ue6b9ebe3">
   <p data-lake-id="uf0e2cf0f" id="uf0e2cf0f"><span data-lake-id="ua233af77" id="ua233af77">稀疏整数，即向bitMap的数组中存放不连续的整数，如：1，50001，20，910321。如果这四个数字使用bitMap存储，我们要初始化至少910321个bit数组元素，只有这四个位为1，其他位为0，空间被白白浪费。</span></p>
  </blockquote>
  <p data-lake-id="u1ce3feab" id="u1ce3feab"><br></p>
  <p data-lake-id="u29dc61a7" id="u29dc61a7"><span data-lake-id="u06d7cd95" id="u06d7cd95">解决这种问题的一个很好的思路是，尝试对数据集中的整数进行压缩，比如将32位整数拆分成高16位和低16位，将高16位相同的数字放在一起（一个container），低16位形成一个bitmap（本质上也是个bit数组可称作bucket）。</span></p>
  <p data-lake-id="u8c5ac20a" id="u8c5ac20a"><span data-lake-id="uf701e257" id="uf701e257">​</span><br></p>
  <p data-lake-id="ue7fda77e" id="ue7fda77e"><span data-lake-id="ua935abf6" id="ua935abf6">可以简单理解成一个hashmap下挂了bitmap，这样对32位整形进一步压缩。对于稀疏的数据集，大幅度降低内存占用。 </span></p>
  <p data-lake-id="ub914f7ef" id="ub914f7ef"><span data-lake-id="uad0763ef" id="uad0763ef"><br></span><img src="https://cdn.nlark.com/yuque/0/2023/png/5378072/1696856457837-a17f82b9-1800-4904-b843-915b89de18e7.png?x-oss-process=image%2Fwatermark%2Ctype_d3F5LW1pY3JvaGVp%2Csize_35%2Ctext_SmF2YSA4IEd1IFA%3D%2Ccolor_FFFFFF%2Cshadow_50%2Ct_80%2Cg_se%2Cx_10%2Cy_10"></p>
  <p data-lake-id="u842a738c" id="u842a738c"><span data-lake-id="u72f26c86" id="u72f26c86"><br></span><span data-lake-id="u8c409a35" id="u8c409a35">这样的基本思路已经有了现成的实现，即</span><code data-lake-id="u248ecffc" id="u248ecffc"><span data-lake-id="u125ea38b" id="u125ea38b">RoaringBitmap</span></code><span data-lake-id="u97288129" id="u97288129">，其开源实现不止局限于java，也有C++、go等多种语言。官网地址：https://roaringbitmap.org。</span></p>
  <p data-lake-id="uecbef9ca" id="uecbef9ca"><span data-lake-id="u6944a4fd" id="u6944a4fd"><br></span><strong><span data-lake-id="u49b9d265" id="u49b9d265">他主要有以下优点：</span></strong></p>
  <p data-lake-id="u50b19508" id="u50b19508"><br></p>
  <ol list="u54134be5">
   <li fid="u8e01410d" data-lake-id="u5b28f847" id="u5b28f847"><span data-lake-id="u7440a26d" id="u7440a26d">支持32位和64位数据集的聚合运算</span></li>
   <li fid="u8e01410d" data-lake-id="u9a321b17" id="u9a321b17"><span data-lake-id="uba0bbb36" id="uba0bbb36">位运算速度非常快，基本都是O(1)时间复杂度，且内部实现大多使用数组，对CPU L1缓存非常友好</span></li>
   <li fid="u8e01410d" data-lake-id="u0e49e062" id="u0e49e062"><span data-lake-id="ub768095b" id="ub768095b">便捷的使用方式，与</span><code data-lake-id="u9810c9f0" id="u9810c9f0"><span data-lake-id="ue86fe05b" id="ue86fe05b">java.lang.BitSet</span></code><span data-lake-id="u660cf35f" id="u660cf35f">接口相同，简单明了，同时功能比</span><code data-lake-id="ubc6e7d75" id="ubc6e7d75"><span data-lake-id="u13f6725b" id="u13f6725b">BitSet</span></code><span data-lake-id="u144238fe" id="u144238fe">多</span></li>
   <li fid="u8e01410d" data-lake-id="u9234d7f1" id="u9234d7f1"><span data-lake-id="u172e0cc9" id="u172e0cc9">具有强大的社区，ElasticSearch、kylin、Hive、InfluxDB都用了这套算法，开源社区也很活跃</span></li>
   <li fid="u8e01410d" data-lake-id="u2fb9cbaf" id="u2fb9cbaf"><span data-lake-id="u3ae2ab7a" id="u3ae2ab7a">提供多种container，针对运行时的数据量级、稀疏程度自动平衡转换</span></li>
  </ol>
  <p data-lake-id="u8959c40d" id="u8959c40d"><br></p>
  <p data-lake-id="uf05f5b09" id="uf05f5b09"><strong><span data-lake-id="u59790b02" id="u59790b02">当然，他也有缺点：</span></strong></p>
  <p data-lake-id="u12de5c3a" id="u12de5c3a"><span data-lake-id="u28e539b7" id="u28e539b7"><br></span><span data-lake-id="u3412b3a2" id="u3412b3a2">每个container算法实现不同，如果想深入钻进去看源码或官方的论文，还是比较难理解的。</span></p>
 </body>
</html>